OpenAI APIのTop P
nucleus sampling
probability mass
が、
p
以上であるtokenの結果を考慮する
0.1
を指定すると、上位10%の
probability mass
からなるtokenだけを考慮する
https://platform.openai.com/docs/api-reference/completions/create#completions/create-top_p
https://community.openai.com/t/a-better-explanation-of-top-p/2426
OpenAI APIのtemperature
とは併用しない
使い分けがわからない
#??